1
超越基本凸性:通过逐点上确界保持
MATH008Lesson 3
00:00
虽然基本凸性涵盖了求和与缩放,但通过 逐点上确界 是构建非平凡凸函数并建立对偶性的基础操作。它指出,即使我们有一个不可数无穷的凸函数族,其“上包络”仍然保持凸性。这一桥梁使我们能够利用简单的线性分量来分析复杂的凸形状。

1. 技术定义

对于函数族 $\{f(\cdot, y) \mid y \in \mathcal{A}\}$,逐点上确界定义为:

$$g(x) = \sup_{y \in \mathcal{A}} f(x, y)$$

该函数的定义域是所有函数在族中均有定义且上确界有限的点的集合:

$$\text{dom } g = \{x \mid (x, y) \in \text{dom } f \text{ for all } y \in \mathcal{A}, \sup_{y \in \mathcal{A}} f(x, y) < \infty\}$$

图示视角

从几何上看,上确界函数的上图是各个独立上图的交集:

$$\text{epi } g = \bigcap_{y \in \mathcal{A}} \text{epi } f(\cdot, y)$$

由于每个独立的上图都是凸集(因为 $f(x, y)$ 相对于 $x$ 是凸的),且任意多个凸集的交集本身也是凸的,因此 $g(x)$ 的凸性得以保证。

2. 重要示例

  • 支撑函数: $S_C(y) = \sup \{ y^T x \mid x \in C \}$。这个函数总是凸的,无论集合 $C$ 是否凸,因为它是一组关于 $y$ 的线性(仿射)函数的上确界。
  • 到最远点的距离: $f(x) = \sup_{y \in C} \|x - y\|$。即使集合 $C$ 形状不规则,$f(x)$ 关于 $x$ 仍是凸的,因为范数是 $x$ 的凸函数。
  • 最大特征值: 对于一个对称矩阵 $X$,$f(X) = \lambda_{\max}(X)$ 是凸的。这源于瑞利商:$\lambda_{\max}(X) = \sup\{y^T X y \mid \|y\|_2 = 1\}$。它是关于 $X$ 的线性函数的上确界。

定理:仿射函数表示

定理
几乎所有凸函数都可以表示为一族仿射函数(全局下界)的逐点上确界。
直观理解
在每一点 $x_0$ 处,一个凸函数 $f$ 都存在一个支撑超平面(一个仿射函数 $h(x) = f(x_0) + g^T(x-x_0)$)。通过取所有此类支撑超平面的上确界,我们可以精确地重构函数 $f$。
🎯 核心原则
逐点上确界保持凸性,逐点下确界保持凹性。这是范数、谱函数和对偶问题凸性的秘密所在。
$$g(x) = \sup_{y \in \mathcal{A}} f(x, y) \implies g \text{ 为凸函数,若 } f(\cdot, y) \text{ 对所有 } y \text{ 均为凸函数}$$